ประตูสร้างขึ้นครั้งแรกในรัชสมัยของจักรพรรดิหย่งเล่อ แห่งราชวงศ์หมิง เนื่องจากเป็นประตูทางใต้ของนครจักรพรรดิ และในสมัยโบราณของจีน "ทิศใต้" ถือเป็นทิศที่โดดเด่นที่สุด ประตูนี้จึงมีสถานะเป็น "ประตูของชาติ" ในสมัยราชวงศ์หมิงเรียกประตูนี้ว่า "ประตูหมิงอันยิ่งใหญ่" (Great Ming gate) และมีชุดสลักโคลงกลอนว่า “พระอาทิตย์ และพระจันทร์ส่องความประเสริฐของสวรรค์ ภูเขา และแม่น้ำทำให้ที่ประทับของพระจักรพรรดิงดงาม" (「日月光天德, 山河壯帝居」) เมื่อราชวงศ์ชิง เข้าแทนที่ราชวงศ์หมิง ชื่อของประตูจึงเปลี่ยนเป็น "ประตูชิงอันยิ่งใหญ่" (จีน: Dàqīngmén, 大清門; แมนจู: Daicing dukaᡩᠠᡳ᠌ᠴᡳᠩ
ᡩᡠᡴᠠ) ในปี ค.ศ. 1644

หลังจากการล่มสลายของราชวงศ์ชิงในปี 1912 ได้เปลี่ยนชื่อประตูเป็น "ประตูจีน", ในปี 1952 มีโครงการขยายจัตุรัสเทียนอันเหมิน ที่ปรึกษาจากสหภาพโซเวียต ได้แนะนำให้ทำการรื้อประตู, ต่อมาในปี 1954 ประตูได้ถูกรื้อออก, และในปี 1976 หลังจากการอสัญกรรมของประธานเหมา เจ๋อตง ได้มีการสร้างอนุสรณ์สถานสำหรับเขาบนที่ตั้งของประตูเดิม